SalesLoop: Reinforcement Learning from Performance Feedback for Sales Lead Ranking
SalesLoop：基于性能反馈的强化学习销售线索排序框架
🧭 强化学习闭环排序优化 ★ 深度解读
Li Auto Inc.
通过闭环强化学习与位置感知奖励+判别式GRPO，解决销售线索排序中离线-在线指标不对齐、逐点-列表目标错位及分布漂移三大断层
📌 工作参考价值（4 点）
- 闭环反馈直接优化业务指标：借鉴 SalesLoop 的 Deploy→Collect→Reward→Update 月度迭代闭环，将线上真实转化（非代理标签）作为奖励，解决离线 AUC 与线上 KPI 背离问题。电商推荐中可类似地将成交、加购等延迟信号转化为位置加权 + 速度加权的奖励，驱动模型直接优化 Top-K 业务指标。
- 判别式 GRPO 实现列表级优化：将 GRPO 的组内相对优势思想用到排序分上，而非 token 生成概率，用 KL 散度对齐分数分布与优势分布，替代传统逐点 BCE。这对搜索/推荐中需要对整个候选列表优化 NDCG 等指标的场景非常实用，且无需价值网络。
- 位置感知奖励建模：奖励 = 转化标签 × log₂(rank+1) 的倒数 × 速度衰减，让模型感知高顺位转化的更高价值，适合有运营截断窗口（如每日 Top-1 万商品推送）的场景。可复用到广告位竞价排名或消息推送的排序训练。
- 温启动 + 低学习率保守更新：每月从上一轮参数热启，配合降低 10 倍的学习率及 BCE 正则项，防止灾难性遗忘并保持点校准。在业务持续迭代的场景中，这一策略能有效积累历史知识，实现复利式效果增长。